Multi-Target Few-Shot Prompting with Diffusion Language Models
扩散语言模型的多目标少样本提示
🧭 扩散语言模型 · 少样本多目标填充
University of Texas at Austin
用扩散语言模型在共享画布中同时填充多个掩码区域，并通过似然比奖励提升少样本示例跟随能力
📌 工作参考价值（4 点）
- 在电商文本结构化改写（如根据 2-3 个示例将商品描述转换成标题+卖点+属性标签等多字段）中，可借鉴扩散 LM 的多目标掩码填充：一次生成多个字段，利用左右上下文约束，比自回归逐 token 生成更连贯且避免重复。
- 选择性掩码+似然比奖励的思路可以迁移到 LLM 解码或 prompt 设计：只对关键槽位计算「有示例支持 vs 无示例支持」的概率比，作为过滤或重排分数，提高生成结果对 few-shot 示例的忠实度，减少随意发挥。
- 在需要格式转换/API 迁移的工程任务（如商品数据批量清洗、旧接口字段映射新接口）中，可以把每个字段当作一个掩码目标，展示少量成对示例后让扩散 LM 同时填充多个目标，减少多步串行生成的误差累积。
- 若团队已在探索生成式推荐中使用 diffusion LM 生成 Semantic ID 或多属性 token，这种共享画布的多目标填充可用来同时预测多个 token（如类目+属性+ID），相互提供上下文。